Transformer（四）：位置编码与序列顺序 2026 年 08 月 26 日 Transformer 从自注意力的排列等变性出发，推导正弦余弦位置编码、相对位置信息与正确 PyTorch 实现，并概览现代位置机制。 Positional Encoding Sinusoidal Encoding RoPE Transformer